Итак, чтоже такое вектор? Все очень просто, вектор - это направленный отрезок, имеющий начало и конец. В 3D графике используют вектора начинающиеся в точке с координатами (0, 0, 0). Векторами обычно обозначают скорость предметов или силы действующие на них. Вектор обладает двумя характеристиками: длина и направление. Чаще используют единичные вектора, т.е вектора с длиной равной единице. Простейшим способом включения векторов в вашу программу является введение следующей конструкции:

typedef struct
{
    float x, y, z;
} VECTOR;

Ч Определение модуля. Ш
Также эту операцию называют Magnitude или Length, но в любом случае все это значит одно и то же - определение расстояния между начальной и конечной точками. А так как вектор начинается в точке (0, 0, 0), достаточно найти расстояние от конечной точки до начала координат.
|a|² = x² + y² + z²

Ч Нормализация. Ш
Приводит вектор к единичному. Т.е длина вектора становится равна единице. Эта операция важна для использования некоторых операций, описанных далее.
a_x = b_x/ |b|
a_y = b_y/ |b|
a_z = b_z/ |b|

Ч Отрицание. Ш
Меняет направление вектора на противоположное. На рисунке -a = b.
a_x = -a_x
a_y = -a_y
a_z = -a_z

Ч Сложеие. Ш
Результат сложения - на картинке. a + b = c. Сложение векторов может использоваться для определения результируещей силы, действующий на объект. Например, в одного человечка с двух разных сторон врезаются машинки... Куда полетит человечек? Сложим векторы скоростей машинок - узнаем.
c_x = a_x+b_x
c_y = a_y+b_y
c_z = a_z+b_z

Ч Вычитание. Ш
Почти то же самое, что и сложение, только к первому вектору прибавляется вектор, обратный второму. Итог на картинке. a - b = c. Используется обычно для привязки системы координат к какому-нибудь движущемуся объекту, тогда вектор относительной скорости любого другого объекта будет равен разности вектора абсолютной скорости и вектора скорости того самого движущегося объекта.
c_x = a_x-b_x
c_y = a_y-b_y
c_z = a_z-b_z

Ч Умножение на константу. Ш
Длина вектора увеличивается в k раз. На рисунке b = k * a.
b_x = k*a_x
b_y = k*a_y
b_z = k*a_z

Ч Скалярное произведение. Ш
Англоязычный вариант этого термина звучит, как DotProduct. Итогом операции является число равное |a|*|b|*cos(alpha), где |a| и |b| длины умножаемых векторов, а cos(alpha) косинус угла между ними. Важным свойством операции является то, что если оба вектора единичны, то в результате получится просто cos(alpha). Если же единичен лишь один из них, то получится длина проекции другого на прямую, образуемую единичным.
a ^ b = a_x*b_x + a_y*b_y + a_z*b_z

Ч Векторное произведение. Ш
Англоязычный вариант этого термина звучит, как CrossProduct. Итогом операции является вектор перпендикулярный плоскости, образуемой перемножаемыми векторами. Операция используется для определения направления нормали, о которых рассказано в разделе "плоскости"; для определения координат многоугольников перпендикулярных направлению камеры, которые используются для создания спецэфектов; и для многого другого.
c_x = a_y*b_z - a_z*b_y
c_y = a_z*b_x - a_x*b_z
c_z = a_x*b_y - a_y*b_x


Чтобы использовать все перечисленные операции необходимо создать для векторов специальный класс. Я написал пример такого класса.